बड़े भाषा मॉडल (LLMs) अपनी उत्कृष्ट प्राकृतिक भाषा प्रसंस्करण क्षमताओं के लिए प्रसिद्ध हैं, लेकिन व्यवहार में, उनके अनुकरण चरण उच्च गणना लागत और मेमोरी उपयोग की चुनौतियों का सामना करते हैं। LLMs की दक्षता बढ़ाने के लिए, शोधकर्ताओं ने एक तकनीक पेश की है जिसे Q-Sparse कहा जाता है। Q-Sparse विधि सक्रियता में top-K अस्पष्टता और सीधा अनुमान लगाने वाले तकनीकों को लागू करके पूरी तरह से अस्पष्ट सक्रियता की स्थिति संपीड़न हासिल करती है, जिससे अनुकरण दक्षता में महत्वपूर्ण वृद्धि होती है। शोध से पता चलता है कि Q-Sparse परिणामों को बनाए रखते हुए